在開始實作之前,我們先了解一下 Azure 平台上現有的 AI 相關服務。Azure 經過多年的布局,已經形成一個相當完整的 AI 服務生態系。以下是目前 Azure 上幾個主要的 AI 服務及其現況
Azure OpenAI:這是 Azure 與 OpenAI 合作提供的雲端服務,讓開發者可以使用 OpenAI 的大型語言模型(如 GPT-4o、GPT-5 等)以及 Embedding 模型。Azure OpenAI 提供與 OpenAI API 相容的介面,但在 Azure 環境中運行,具備企業級的安全和合規支援。要使用 Azure OpenAI 服務,原則上 OpenAI 的新功能發佈後,Azure OpenAI 都會很快跟上。
Azure Cognitive Services(認知服務)是早年 Azure 提供的一系列預建 AI 功能的統稱,涵蓋五大領域:
Vision(影像服務):包括計算機視覺(Computer Vision API)可對圖像進行標記、描述和文字辨識,面部識別(Face API)、影像分類、辨識自訂影像等功能。
Speech(語音服務):包括語音轉文字(Speech to Text)、文字轉語音(Text to Speech)、語音翻譯等。Azure 的語音服務品質相當高,可支援多種語言的精準識別和自然流暢的語音合成。
Language(語言服務):這部分包括文本分析(Text Analytics)、語言理解(LUIS,以 Conversational Language Understanding 服務提供)、翻譯(Translator)等。特別值得一提的是,Text Analytics 提供關鍵詞抽取、情感分析,以及針對醫療領域的 Text Analytics for Health,可從醫療文本中抽取病徵、藥物等專業資訊。
Decision(決策服務):這類服務包括異常偵測(Anomaly Detector)、內容審查(Content Moderator)等,幫助在應用中做出智慧決策或過濾內容。
Search(搜尋服務):Azure 提供的搜尋服務叫做 Azure AI Search(前稱 Azure Cognitive Search)。這是一個雲端搜尋引擎服務,可對結構化或非結構化資料進行索引和查詢,近期也支援向量搜尋和混合搜尋,非常適合構建 RAG(檢索增強生成)的知識庫。
Azure Cognitive Services 通常可以透過REST API或各語言的 SDK 使用。開發者可以選擇單項服務(例如僅使用 Computer Vision),或創建一個多服務資源(Cognitive Services 多服務帳戶)取得通用的端點和金鑰,以使用多種能力。我們後續的文章將介紹如何利用 LangChain 的工具包整合這些服務,使 Agent 具備視覺、語音和文檔理解的能力。
Azure Machine Learning 是 Azure 的機器學習平台,提供從資料準備、模型訓練、模型微調到部署的全流程支援。不過在我們這系列中,我們主要聚焦於調用現有的預建模型服務,因此 Azure ML 涉及較少,有興趣的朋友可以去看我前幾年寫的鐵人賽的文章。
Azure AI Agent Service 可以被視為 Azure AI Foundry 中的一部分或相關服務,用於部署和管理 Agent。所謂 Agent,在 LangChain 中指的是具備推理能力、能動地使用工具去完成任務的智能體。在 Azure AI Agent Service 中,你可以將定義好的 Agent 部署成一個雲端服務,Azure 會負責運行這個 Agent,包括工具使用、記憶管理、並行調度等繁瑣細節,開發者只需調用 Agent 的 API 即可得到結果。我們在本系列稍後將探討 Azure Agent Service 的使用。
Azure AI Content Safety 是內容安全審查服務,幫助開發者識別並過濾不當內容(例如暴力、色情、仇恨言論等)。這在 AI 應用中特別重要,因為我們常常需要對模型的輸入輸出做內容控管。Azure 的內容安全服務可以與 OpenAI 模型結合使用,確保整體應用符合使用政策。
Azure AI Foundry 是 Microsoft 在近年推出的新平台,可視為 Azure 上的下一代 AI 統合介面。Azure AI Foundry 將模型、代理(Agent)和觀測管理等功能集中在一個介面中。在 Foundry 中,你可以探索各種模型(包括 OpenAI 模型和第三方模型如 Mistral、Meta 等)、可以建立 Agent 來結合工具完成更複雜的任務,並可以對這些應用進行監控和管理。Azure AI Foundry 也提供了統一的 API/SDK(Azure AI Inference SDK)來調用不同模型和不同的 Azure AI 的服務。
我們可以簡單地想成 AI Foundry 是 Azure AI 相關服務的統一專案入口,也就是說,過去其他的 Azure AI 的服務,幾乎都可以在 AI Foundry 建立,同樣一套 SDK。目前依然保留了在 AI Foundry 外建立其他 AI 服務功能,不過微軟應該會大一統。
後續我們會有專門的文章來介紹 Azure AI Foundry 及如何在 LangChain 中使用它。
以上概覽了 Azure AI 服務的現況。明天開始我們就來建立第一個 Azure OpenAI 吧!